Hoàng Vân bắt đầu sáng tác từ năm 1951 với những ca khúc được phổ biến rộng rãi tại vùng Tây Bắc, Việt Bắc như "Chiến thắng Tây Bắc", "Chiến thắng Hoà Bình", "Tin chiến thắng",... Năm 1954, ông sáng tác ca khúc nổi tiếng "Hò kéo pháo". Từ đây sự nghiệp sáng tác của ông bắt đầu nở rộ với hàng loạt ca khúc, hợp xướng, hòa tấu. Ngoài ra ông còn viết nhạc cho phim, kịch nói, tác phẩm khí nhạc.

Ngoài công việc sáng tác, ông còn tham gia công tác giảng dạy ở Nhạc viện Hà Nội. Nhiều trong số các học trò của ông đã thành danh như An Thuyên, Trương Ngọc Ninh, Văn Thành Nho, Phú Quang,...

Ông đã xuất bản các sách nhạc gồm Hai chị em (Nhà xuất bản Âm nhạc, 1973), 6 ca khúc Hoàng Vân (Nhà xuất bản Âm nhạc, 1980), Ca khúc Hoàng Vân (Nhà xuất bản Âm nhạc, 1986), Tuyển chọn ca khúc Hoàng Vân (Nhà xuất bản Âm nhạc và Hội nhạc sĩ Việt Nam) kèm theo băng cassette audio. Các sách được xuất bản tại nước ngoài là Tổng phổ giao hưởng Thành đồng Tổ quốc (in tại Cộng hòa Dân chủ Đức và Bulgaria), Hành khúc con voi (Voi kéo gỗ) (Nhà xuất bản Âm nhạc Moskva, Liên Xô).

Ông được trao Giải thường Hồ Chí Minh về văn học nghệ thuật vào năm 2000.